Sau khi nước Việt Nam thống nhất, ông trúng cử đại biểu Quốc hội Việt Nam khóa VI, được cử giữ chức Phó Thủ tướng Việt Nam kiêm Bộ trưởng Bộ Hải sản mới được thành lập, sau khi sáp nhập 2 Tổng cục Thủy sản miền bắc và miền nam. Nhưng ông chỉ làm Bộ trưởng Bộ Hải sản có 5 tháng thì ông Nguyễn Văn Lâm (tức Tám Tú, Bí thư kỳ cựu tỉnh ủy Nghĩa Bình) thay thế.

Đến tháng 12 năm 1976, tại Đại hội Đảng Cộng sản Việt Nam IV ông được bầu vào Ban Chấp hành Trung ương Đảng, được Ban Chấp hành Trung ương bầu vào Bộ Chính trị, giữ chức Phó Thủ tướng kiêm Bộ trưởng Bộ Nông nghiệp và Trưởng ban Cải tạo nông nghiệp miền Nam.

Từ tháng 4 năm 1981, trúng cử Đại biểu Quốc hội Việt Nam khóa VII, được cử làm Phó Chủ tịch Hội đồng Bộ trưởng. Tại Đại hội Đảng Cộng sản Việt Nam V (3/1982) được bầu lại vào Ban Chấp hành Trung ương Đảng, được Ban Chấp hành bầu vào Bộ Chính trị, Bí thư Trung ương Đảng, được phân công làm Thường trực Ban Bí thư.

Từ tháng 6 năm 1986, ông được phân công giữ chức Phó Chủ tịch Hội đồng Bộ trưởng. Tại Đại hội Đảng toàn quốc lần thứ VI (12/1986), được bầu vào Ban Chấp hành Trung ương Đảng và được Ban Chấp hành Trung ương bầu vào Bộ Chính trị.

Từ tháng 4 năm 1987 đến năm 1991: Trúng cử đại biểu Quốc hội Việt Nam khoá VIII và được Quốc hội bầu làm Chủ tịch Hội đồng Nhà nước, Chủ tịch Hội đồng Quốc phòng.

Từ tháng 6 năm 1991 đến tháng 12 năm 1997: là Cố vấn Ban Chấp hành Trung ương Đảng.[11]